Jacob là con trai duy nhất của Simon, một nhà buôn, và Thérèse (Franck) Jacob, ở Nancy, Pháp. Là một cậu bé hay tò mò, Jacob đã tập đọc chữ từ lúc còn bé. Albert Franck, ông ngoại của Jacob, một viên tướng 4 sao, là hình ảnh gương mẫu cho Jacob lúc còn bé. Năm 7 tuổi Jacob bắt đầu vào học ở trường Lycée Carnot trong 10 năm. Trong quyển tự truyện, ông mô tả ấn tượng của mình về trường này như "một cái lồng chim". Khoảng năm 1934 ông đã bị nhóm thanh thiếu niên khuynh hữu ở trường này thù ghét. Ông mô tả cha mình như một "người tuân thủ tôn giáo", còn mẹ ông và những người khác trong gia đình là những "người Do Thái thế tục". Ngay sau khi làm lễ bar mitzvah[5], ông đã trở thành người vô thần.[6]

Mặc dù thích (và có năng khiếu về) môn Vật lý học và Toán học, nhưng Jacob sợ viễn ảnh phải học thêm 2 năm để chuẩn bị thi vào Trường Bách khoa Paris. Thay vào đó, sau khi quan sát một ca giải phẫu, Jacob đã chọn vào học ngành Y học.[7]

Trong thời Đức Quốc xã chiếm đóng Pháp và ngay sau cái chết của mẹ, Jacob đã rời Pháp đi sang Anh theo phong trào kháng chiến chống Đức. Năm 1940 Jacob, lúc đó mới chỉ học hết năm thứ hai ngành Y, đã gia nhập đại đội quân y của Sư đoàn 2 Thiết giáp của Pháp. Năm 1944, ông bị thương trong một trận oanh kích của Không quân Đức, và ngày 1 tháng 8 năm 1944 ông trở về Paris lúc đó đã được giải phóng.[8] Ông đã được thưởng Huân chương Giải phóng, cũng như Bắc Đẩu Bội tinh và croix de guerre (chiến công bội tinh) cho thời gian phục vụ trong Quân đội.

Sau khi bình phục, Jacob trở lại trường Y khoa, bắt đầu nghiên cứu tyrothricin [9] và học các phương pháp trong quá trình nghiên cứu vi khuẩn. Ông hoàn thành một luận án mà ông mô tả là "việc sao chép công trình của Mỹ " về tính hiệu quả của thuốc kháng sinh chống các sự nhiễm trùng từng vùng cơ thể, và đậu bằng tiến sĩ y khoa năm 1947. Mặc dù rất thích sự nghiệp nghiên cứu, nhưng sau khi tham dự một hội nghị về vi khuẩn học trong mùa hè năm 1947, ông đã không dám lao vào nghiên cứu vì cảm thấy mình còn kém hiểu biết trong lãnh vực này. Thay vào đó, ông xin làm việc ở trung tâm Cabanel, nơi ông đã làm luận án nghiên cứu của mình; công việc mới của ông tại đây là sản xuất thuốc kháng sinh tyrothricin. Sau đó, trung tâm này đã ký hợp đồng biến các xưởng sản xuất thuốc súng thành nơi sản xuất thuốc penicillin (dù vậy việc này đã tỏ ra là không thể được).[10]